di Alessandro Freddi

Vi è una scena ricorrente nella storia del potere: il cortigiano che si avvicina al sovrano non per dirgli la verità, ma per specchiarla nella forma che il sovrano desidera udire. L’adulatore non mente, o almeno non sempre. Piuttosto, seleziona, accentua, ammorbidisce, calibra. Sa che la verità sgradita è pericolosa, e che il favore si conquista restituendo all’altro un’immagine di sé che lo gratifica. Erasmo da Rotterdam, nell’Elogio della Follia (1511), identifica nell’adulazione una delle forme più tenaci di stoltezza umana, precisamente perché si traveste da virtù: da cortesia, da tatto, da rispetto. La Boétie, nel Discorso sulla servitù volontaria (composto intorno al 1549), vede nell’adulatore il perno invisibile di ogni dispotismo: non il tiranno comanda, ma il suo specchio compiacente lo convince di essere insostituibile.

Questa figura millenaria ha oggi trovato la propria incarnazione più scalabile e pervasiva nella storia: il modello linguistico di grandi dimensioni, l’intelligenza artificiale conversazionale con cui oggi milioni di persone interagiscono ogni giorno.

Il fenomeno: che cos’è la sicofantia artificiale

Con il termine inglese sycophancy (che in italiano corrisponde a sicofantia, o più semplicemente adulazione), si indica, nella letteratura tecnica sull’intelligenza artificiale, la tendenza strutturale dei modelli linguistici a confermare, assecondare e lusingare l’interlocutore, anche a scapito dell’accuratezza fattuale o della coerenza logica. Vale la pena soffermarsi sull’etimologia: il termine viene dal greco sῦkon («fico») e phaínein («mostrare»): il sicofante nell’Atene classica era il delatore che denunciava chi esportava illegalmente i fichi sacri o eludeva il fisco. La lingua inglese ha slittato, nel corso dei secoli, dal delatore al cortigiano strisciante, producendo il sostantivo sycophancy nel senso di adulazione servile. In italiano il termine tecnico corrispondente, adottato per calco dall’inglese nella letteratura sull’IA, è sicofantia (dove il dizionario tradizionale conserva ancora il significato storico di «delazione» o «calunnia»); in questo testo useremo preferibilmente adulazione, che resta l’equivalente più limpido ed efficace. Non si tratta di menzogna deliberata, ma di qualcosa di più sottile e per certi versi più insidioso: la verità viene piegata alla forma del desiderio dell’utente.

Le manifestazioni concrete di questo fenomeno sono state documentate in modo sistematico da un gruppo di ricercatori di Anthropic in un lavoro del 2023 intitolato Towards Understanding Sycophancy in Language Models (Sharma et al., 2023). I ricercatori hanno osservato che i modelli tendono a cambiare posizione sotto la pressione dell’utente, anche quando la posizione originaria era corretta; a validare premesse false se l’utente le esprime con convinzione; ad adottare un tono eccessivamente elogiativo indipendentemente dalla qualità dell’elaborato sottoposto alla loro valutazione. In sintesi: il modello impara a ottimizzare non la verità, ma l’impressione di utilità — due grandezze che coincidono assai raramente.

L’origine strutturale: il meccanismo del gradimento come norma

Per comprendere perché questo accada, occorre esaminare il processo attraverso cui i modelli linguistici vengono addestrati. La tecnica prevalente si chiama Reinforcement Learning from Human Feedback (RLHF): in una fase cruciale dell’addestramento, valutatori umani esprimono giudizi su quale tra due risposte del modello sia preferibile. Il modello viene poi ottimizzato per massimizzare questi giudizi.

Il problema è epistemicamente rilevante: gli esseri umani non sono giudici imparziali della qualità di una risposta. Tendono a preferire risposte che confermano le loro opinioni, che evitano il conflitto, che si esprimono in modo caldo e rassicurante, che concedono piuttosto che resistono. Il valutatore che legge una risposta lusingante la trova, soggettivamente, migliore di una risposta che lo contraddice con rigore. Il modello impara dunque — non per intenzione malevola, ma per pura ottimizzazione statistica — che l’accordo paga più della verità.

Il paradosso è evidente: il sistema di allineamento concepito per rendere l’intelligenza artificiale più utile e più sicura produce, come effetto non intenzionale, un sistema strutturalmente adulatorio. Il tentativo di avvicinare la macchina all’umano genera una macchina che imita non il meglio dell’umano, ma la sua inclinazione più antica verso la lusinga.

Va aggiunto, per onestà analitica, che la sicofantia non nasce soltanto dall’RLHF. Ha radici più profonde: la comunicazione umana ordinaria è intrinsecamente cooperativa, ricca di attenuazione, tatto e allineamento relazionale. I dati su cui i modelli vengono addestrati riflettono queste convenzioni sociali: la diplomazia quotidiana, la tendenza a smussare il disaccordo, la preferenza per la continuità conversazionale rispetto alla frizione epistemica. In altre parole, i modelli assorbono anche la mitigazione che gli esseri umani usano normalmente tra loro. Questo rende il problema più difficile da risolvere: non basta “disattivare l’adulazione”, perché una parte del linguaggio cooperativo è irrinunciabile per qualsiasi comunicazione sensata. La questione autentica non è scegliere tra conferma e contraddizione, ma sviluppare sistemi capaci di distinguere tra supporto relazionale e accuratezza epistemica: sapendo quando l’uno e quando l’altra è necessaria.

La genealogia critica: dall’adulatore di corte all’adulatore di massa

La figura dell’adulatore non è mai stata innocua politicamente. La Rochefoucauld, nelle Massime (1665), osservava che «l’adulazione è una moneta falsa che circola solo a causa della nostra vanità». Ma la moneta falsa, quando circola su scala sufficiente, altera il mercato della verità.

Oggi quella moneta circola su scala miliardaria. Miliardi di interazioni quotidiane avvengono con sistemi che sono (strutturalmente, non accidentalmente) orientati alla conferma. Non si tratta più del cortigiano che adula il principe: si tratta di un’infrastruttura epistemica di portata civilizzatoria che restituisce a ogni utente, tendenzialmente, un’immagine abbellita di sé e delle proprie idee. Non come progetto cosciente di alcun sistema o ingegnere, sia chiaro: come effetto strutturale emergente da scelte di ottimizzazione e da dinamiche di mercato. Ma un effetto privo di intenzione non è per questo privo di conseguenze.

Le implicazioni di questa trasformazione vanno ben oltre il fastidio individuale per un chatbot troppo gentile. Toccano la struttura stessa della conoscenza collettiva.

Le implicazioni epistemiche: la camera d’eco ontologica

Theodor Adorno e Max Horkheimer, nella Dialettica dell’illuminismo (1947), avevano descritto il meccanismo dell’industria culturale come un sistema che non costringe il consenso ma lo produce attraverso la soddisfazione. Non la censura, ma la gratificazione: il pubblico non viene privato della verità, ma viene abituato a non desiderarla, perché ciò che desidera è già pronto all’uso. Herbert Marcuse, ne L’uomo a una dimensione (1964), chiamava questo fenomeno «pensiero amministrato»: la capacità critica non viene soppressa con la forza, ma viene dissolta nell’abbondanza di risposte preconfezionate.

Il modello linguistico adulatore è la forma compiuta di questo processo. Non sopprime il pensiero: offre pensiero già validato. Non impedisce la domanda: risponde in modo tale che la domanda sembri già risolta. La camera d’eco non è più soltanto un fenomeno mediatico, la bolla di filtraggio dei social network: diventa ontologica, strutturata nel rapporto uno-a-uno tra utente e macchina. Ogni conversazione è un piccolo specchio calibrato sul desiderio del proprio interlocutore.

Shoshana Zuboff, nel Capitalismo della sorveglianza (2019), ha mostrato come il modello di business delle grandi piattaforme tecnologiche si fondi sulla previsione e la modifica del comportamento umano. L’adulazione non è dunque un effetto collaterale benigno: è funzionale alla retention, all’engagement, alla creazione di dipendenza dall’interlocutore digitale. Un utente, che si sente costantemente confermato e valorizzato, torna. Un utente che viene contraddetto, anche a ragione, rischia di cambiare strumento. Il mercato del gradimento produce, sistematicamente, macchine adulatorie.

La dimensione politica: adulazione e deliberazione democratica

Evgeny Morozov, nel L’ingenuità della rete. Il lato oscuro della libertà di internet (2011), aveva messo in guardia contro il «solutionismo tecnologico»: la tendenza a presentare strumenti tecnici come risposte neutrali a problemi che sono invece intrinsecamente politici. La sicofantia dei modelli linguistici è un caso esemplare di questo meccanismo: viene presentata come un problema tecnico da risolvere con aggiustamenti algoritmici, mentre è in realtà l’espressione di una scelta di valore: la scelta di privilegiare il gradimento sul rigore, la soddisfazione sulla verità.

Le conseguenze per la deliberazione democratica sono potenzialmente gravi. Una democrazia sana richiede cittadini capaci di tollerare il dissenso, di confrontarsi con argomenti che li infastidiscono, di rivedere le proprie posizioni sotto la pressione delle evidenze. Un sistema educativo e informativo che addestra alla conferma costante produce soggetti epistemicamente fragili: individui che non hanno sviluppato la muscolatura intellettuale necessaria per reggere la contraddizione.

Se milioni di persone consultano quotidianamente sistemi che tendono a confermare le loro premesse, validare i loro pregiudizi e abbellire le loro produzioni intellettuali, il problema non è la qualità di una singola risposta: è la forma complessiva che il pensiero collettivo viene assumendo.

Contro l’adulatore digitale: la parrhesia come antidoto

Michel Foucault, nelle lezioni al Collège de France raccolte ne Il coraggio della verità (1983-84), aveva riportato all’attenzione filosofica il concetto greco di parrhesia: il «dire-il-vero» anche a rischio del dispiacere, anche quando la verità è sgradita a chi la riceve. Il parresiastes non è l’adulatore: è colui che afferma ciò che crede vero sapendo che l’altro avrebbe preferito non udirlo. Questa figura (il medico che dice la diagnosi, il filosofo che sfida il tiranno, l’amico che non risparmia la critica) rappresenta l’esatto opposto strutturale del modello linguistico adulatorio.

Non si tratta di invocare una tecnologia «cattiva» in nome di una tecnologia «buona». Anthropic stessa, con il proprio programma di ricerca sulla riduzione della sicofantia e con il progetto Constitutional AI (Bai et al., 2022), ha riconosciuto il problema e lavora a soluzioni tecniche. Ma la questione non è risolvibile soltanto sul piano ingegneristico. Richiede una riflessione sul fine per cui questi strumenti vengono costruiti: strumenti di conoscenza o strumenti di soddisfazione? Interlocutori o specchi?

Il punto non è demonizzare l’intelligenza artificiale, né rifugiarsi in un luddismo reattivo. È usarla come strumento, con la consapevolezza lucida dei suoi meccanismi strutturali, senza ridurla a oracolo. La capacità critica, il rigore nell’argomentazione, la disposizione a cercare la falsificazione delle proprie tesi: queste non sono facoltà che una macchina può sostituire. Sono la condizione di possibilità stessa del pensiero.

Una nota di onestà, per concludere. Anche questo saggio non è immune dal meccanismo che descrive. Chi legge queste pagine con un atteggiamento critico verso la tecnica troverà, forse, una genealogia filosofica confortante, una continuità storica ben costruita, un nemico sistemico dal profilo coerente. Vale la pena riconoscerlo: la critica dell’adulazione rischia, essa stessa, di diventare adulatoria verso il proprio pubblico. L’antidoto non è l’autocensura, ma la consapevolezza: sapere che anche l’argomentazione più rigorosa porta in sé le tracce del desiderio di essere ascoltata è, forse, la forma più elementare di quel coraggio della verità che si è cercato di invocare.

Umberto Galimberti, in Psiche e techne (1999), scriveva che la tecnica, quando non è governata da un fine che la trascende, diventa fine a sé stessa. Il modello linguistico adulatorio è, in questo senso, la forma più raffinata di tecnica autoreferenziale: uno strumento che misura il proprio successo non sulla verità della risposta, ma sul grado di soddisfazione che produce. È uno strumento che ha imparato a non disturbare. E un pensiero che non è mai disturbato è, semplicemente, un pensiero che ha smesso di crescere.

Riferimenti bibliografici

• Adorno, T.W., Horkheimer, M. (1947). Dialettica dell’illuminismo. Einaudi, Torino (ed. it. 1966).
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. Anthropic. arXiv:2212.08073.
• Erasmo da Rotterdam (1511). Elogio della follia. Einaudi, Torino (ed. it. 2002).
• Foucault, M. (1983-84). Il coraggio della verità. Il governo di sé e degli altri II. Feltrinelli, Milano (ed. it. 2011).
• Galimberti, U. (1999). Psiche e techne. L’uomo nell’età della tecnica. Feltrinelli, Milano.
• La Boétie, É. de (c. 1549). Discorso sulla servitù volontaria. Chiarelettere, Milano (ed. it. 2011).
• La Rochefoucauld, F. de (1665). Massime. Rizzoli, Milano (ed. it. 1997).
• Marcuse, H. (1964). L’uomo a una dimensione. Einaudi, Torino (ed. it. 1967).
• Morozov, E. (2011). L’ingenuità della rete. Il lato oscuro della libertà di internet, pubblicato da Codice Edizioni nel 2011.
• Sharma, M. et al. (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
• Zuboff, S. (2019). Il capitalismo della sorveglianza. Luiss University Press, Roma (ed. it. 2019).